Reinforcement Learning with Verifiable Rewards for Small Search Agents
小模型搜索智能体的可验证奖励强化学习
🧭 RLVR小模型搜索Agent训练 ★ 深度解读
Leiden Institute of Advanced Computer Science, Leiden University
在0.8B模型上证明RLVR可训练搜索Agent，且稀疏EM奖励最差，token-F1部分信用奖励带来3.8倍提升
📌 工作参考价值（4 点）
- 在资源有限、用小模型做 agentic search/RAG 时，奖励函数不要直接用 exact match 稀疏奖励。改用 token-F1 部分信用奖励（可加格式地板），避免 GRPO 组内优势因零方差而失效。
- 训练与评估共享同一套 prompt 模板、工具接口和解析器，确保格式分布一致；检索到的 token 必须 mask，防止模型学预测语料。
- 使用模型家族原生工具调用格式（如 Qwen 的 nested-XML）而非自定义标签，能降低冷启动难度；用量化检索索引（IVF+SQ8）替代 flat index，内存从 65GB 降到 16GB 且 recall 基本不降，利于训练时多轮 rollout。
- 若在电商搜索/推荐场景训练 Agent 做多跳查询或商品属性推理，可借鉴隐式长度惩罚：生成上限本身会形成对过长 rollout 的惩罚，但训练 reward 与真实业务指标要区分，格式奖励可能让训练曲线虚高。